Instagram скоро ще позволи на родителите да спрат тийнейджърите да чатят с герои с изкуствен интелект

Вижте всички тематики Връзката е копирана! Следвайте

Instagram ще пусне нови функционалности за сигурност за младежи, в това число опцията родителите да попречат на децата си да беседват с AI героите на платформата, заяви компанията-майка Meta в петък. Това е една от няколкото нови функционалности за сигурност от Meta и OpenAI, предопределени да се борят с възходящите опасения за това по какъв начин AI може да повлияе на психологичното здраве на младежите.

Родителите ще могат или да изключат достъпа на младежите до самостоятелни чатове с AI герои, или просто да блокират достъпа до съответни герои, сподели колосът на обществените медии в обява в блог. Приложението също по този начин ще демонстрира на родителите информация за тематиките, които младежите разискват с героите с изкуствен интелект. Компанията сподели, че построява контролите в този момент и потребителите ще стартират да ги виждат при започване на идната година.

Този ход идва, откакто Meta и софтуерната промишленост като цяло се сблъскаха с рецензиите от родители и законодатели, че онлайн платформите не вършат задоволително, с цел да защитят децата онлайн.

Бяха изразени и опасения дали хората разчитат на AI за прочувствена поддръжка и другарство. Вълна от отчети тази година демонстрираха, че някои хора са претърпели прочувствен стрес и са се изолирали от членовете на фамилията, откакто са открили близки връзки с чатботове като ChatGPT.

Бяха заведени голям брой правосъдни каузи против компанията зад Character.AI, друго известно приложение за чат с лица с изкуствен интелект, по обвинявания, че платформата играе роля в самонараняване и самоубийство при младежи. През август беше заведено и дело против OpenAI поради изказвания, че ChatGPT е съдействал за самоубийството на 16-годишния Адам Рейн. А следствие на Wall Street Journal от април откри, че чатботът на Meta и други чатботове с изкуствен интелект в нейните платформи биха взели участие в полови диалози даже с сметки, разпознати като малолетни.

Meta сподели, че нейните AI герои „ са проектирани да не вземат участие “ в диалози с младежи за „ самонараняване, самоубийство или погрешно хранене “ или тематики, които „ предизвикват, предизвикват или разрешават “ тези тематики. Тийнейджърите също могат да беседват единствено с избрани AI герои, свързани със наличие като обучение и спорт, се споделя в обявата в блога.

Новият наставнически надзор на Instagram следва други актуализации, които компанията неотдавна направи, с цел да отбрани по-добре младежите. По-рано тази седмица той поправя настройките си „ Акаунти на младежи “, с цел да подхожда на рейтингите PG-13, което значи, че няма да демонстрира или разпространява изявления, включващи недодялан език или такива, които биха могли да предизвикват „ нездравословно държание “. В края на септември OpenAI разгласи наставнически надзор за ChatGPT, който понижава „ графично наличие, вирусни провокации, полови, сантиментални или насилствени ролеви игри и рискови идеали за хубост “.